package com.atguigu.flink.wordcount;

import org.apache.flink.api.common.RuntimeExecutionMode;
import org.apache.flink.api.common.functions.FlatMapFunction;
import org.apache.flink.api.java.functions.KeySelector;
import org.apache.flink.api.java.tuple.Tuple2;
import org.apache.flink.streaming.api.datastream.DataStreamSource;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.util.Collector;

/**
 * Created by Smexy on 2022/11/18
 *
 *  对实时要求高，使用Streaming处理！
 *
 *  Streaming处理的程序，如果由于意外中途崩溃了，可能会造成数据的不一致性。
 *          很多公司还会使用批处理程序，在第二天，对昨天产生的数据进行补数，或对数计算！
 *
 *          在1.12之前，批处理需要写一套 DataSourceAPI，流计算使用 DataStreamSource API，
 *              需要两套程序。
 *
 *           在1.12之后，flink提供了流批一体功能。
 *                  一套代码，既可以进行批处理，也可以进行流处理，只需要进行简单的设置。
 *
 *     -------------------
 *      无界流:  只能是STREAMING，不能使用BATCH
 *
 *
 */
public class Demo4_StreamBatchOne
{
    public static void main(String[] args) throws Exception {

        StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

        env.setRuntimeMode(RuntimeExecutionMode.AUTOMATIC);

        //设置并行度为1，全局只有一个Task计算
        env.setParallelism(1);
        //读取数据
        DataStreamSource<String> ds = env.readTextFile("data/words.txt");
        //DataStreamSource<String> ds = env.socketTextStream("hadoop103", 8888);

        //转换
        ds.flatMap(new FlatMapFunction<String, Tuple2<String,Integer>>()
        {
            @Override
            public void flatMap(String value, Collector<Tuple2<String, Integer>> out) throws Exception {
                String[] words = value.split(" ");
                for (String word : words) {
                    out.collect(Tuple2.of(word,1));
                }
            }
        })
          //keyBy： 指定一个字段，按照这个字段作为key进行分组
          .keyBy(new KeySelector<Tuple2<String, Integer>, String>()
          {
              //返回的数据作为key，会被分组
              @Override
              public String getKey(Tuple2<String, Integer> value) throws Exception {
                  //f0代表tuple2的第一个字段
                  return value.f0;
              }
          })
          .sum(1)
          .print();


        //启动执行环境
        env.execute();

    }
}
